Ngày 22 tháng 7 năm 1946, ông được bầu làm Ủy viên Trung ương khóa I Đảng Xã hội Việt Nam mới thành lập.

Kháng chiến bùng nổ, ông cùng Hoàng Như Tiếp đi kháng chiến ở Phúc Yên thuộc Liên khu 1, chiến khu Việt Bắc. Trong thời gian này, ông đã góp sức tập hợp các kiến trúc sư theo kháng chiến, tổ chức các phòng kiến trúc ở Liên khu 1, Liên khu 10, Liên khu 3, Liên khu 4.

Ngày 27/4 năm 1948, ông được bầu vào Ban chấp hành Đoàn Kiến trúc sư Việt Nam tức Hội Kiến trúc sư Việt Nam sau này.

Tháng 4 năm 1950, ông cùng Kiến trúc sư Nguyễn Văn Ninh được cử phụ trách Vụ Kiến trúc (ông Ninh làm Giám đốc, ông làm Phó Giám đốc)[1] thuộc Bộ Giao thông Công chính đóng tại Đại Từ (Thái Nguyên), rồi chuyển sang Yên Bình (Tuyên Quang). Trong kháng chiến, Kiến trúc sư Nguyễn Cao Luyện đã hào hứng đi vào sáng tác các kiểu nhà có nội dung sử dụng mới, hình thức phù hợp với thời chiến như nhà triển lãm, chòi phát thanh, trụ sở Ủy ban Kháng chiến Hành chính. Nhiều mẫu nhà được vẽ bằng mực tím trên đất sét hoặc thạch in trên giấy giang để phổ biến trong chiến khu. Ngoài ra, ông còn nghiên cứu, tìm hiểu kiến trúc dân gian của các dân tộc miền núi.